Khi trưởng thành, Nguyễn Khoái thi tuyến vào cấm vệ quân, và được tuyển vào tả hữu Thánh Dực Dũng Nghĩa quân theo quy định của triều đình[1], có nhiệm vụ hộ giá vua Trần Nhân Tông và Thượng hoàng Trần Thánh Tông.[2]. Sau đó, ông tiếp tục được tín nhiệm giao trọng trách chỉ huy của lực lượng cấm quân tinh nhuệ này.

Năm 1285, quân Nguyên Mông xâm lược Đại Việt, Nguyễn Khoái theo một số vương hầu nhà Trần là Chiêu Văn vương Trần Nhật Duật, Chiêu Thành vương Trần Thông và Hoài Văn hầu Trần Quốc Toản dẫn 5 vạn quân đánh Toa Đô ở cửa Hàm Tử, rồi tiếp tục truy đuổi, phá tan quân Nguyên tại trận Tây Kết.[3] Trong trận chiến này, vợ của ông cùng với rất nhiều binh sĩ Thánh Dực Dũng Nghĩa đã hy sinh ở gần bến Nguyệt bên sông Mã, được dân chúng lập đền thờ.[4]

Năm 1287, hoàng đế nhà Nguyên Hốt Tất Liệt phát động chiến tranh với Đại Việt lần thứ ba. Nguyễn Khoái tham gia thủy chiến Bạch Đằng giang, được thống soái quân Trần là Hưng Đạo Vương Trần Quốc Tuấn giao nhiệm vụ chia cắt đội hình thủy quân Nguyên do Ô Mã Nhi chỉ huy và nhử đối phương vào bãi cọc ngầm đã chuẩn bị từ trước. Khi phần lớn chiến thuyền quân Nguyên bị vướng cọc, Nguyễn Khoái dẫn quân phản công, ngăn không để đối phương rút lui. Thánh Dực quân chiến đấu kiên cường, hợp lực với các đạo quân Trần phá tan đội hình quân Nguyên, kết quả bắt sống một tướng chỉ huy của họ là bình chương Áo Lỗ Xích[5]

Một năm sau chiến thắng Bạch Đằng, khi vua Trần Thánh Tông luận công ban thưởng, Nguyễn Khoái được phong tước Liệt hầu và được cấp hẳn hương Khoái Lộ (thuộc huyện Khoái Châu, tỉnh Hưng Yên ngày nay) làm thực ấp. Đây là đặc ân vì có rất ít người không thuộc hoàng tộc được hưởng vinh dự này.